package top.jolyoulu.core.rdd.builder

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

/**
 * @Author: JolyouLu
 * @Date: 2024/2/6 16:32
 * @Description
 */
object Spark01_RDD_File {
  def main(args: Array[String]): Unit = {
    //准备环境 [*]:表示使用当前系统最大核
    val sparkConf: SparkConf = new SparkConf().setMaster("local[*]").setAppName("RDD")
    val sc: SparkContext = new SparkContext(sparkConf)
    //创建RDD，从文件中创建，将文件作为数据源
    //path路径默认当前环境的根路径为基准，可以使用绝对路径
    //path可以为目录，就会读取目录下全部文件
    //path可以使用通配符匹配文件，就会读取匹配的全部文件
    //path可以是分布式文件系统的路径
    val rdd: RDD[(String,String)] = sc.wholeTextFiles("datas/1.txt")
    rdd.collect().foreach(println)
    //关闭环境
    sc.stop()
  }
}
